即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
圖/本報AI製圖(示意圖)
科技生活

·7 months ago·何映辰
#Google#Gemini#AI#心理健康#數據隱私#科技倫理
圖/本報AI製圖(示意圖)
圖/本報AI製圖(示意圖)
商傳媒|何映辰/台北報導
摘要

Google 旗下大型語言模型 Gemini 近期新增心理健康支援功能,提供潛在危機用戶求助管道,以回應過往 AI 相關訴訟;同時,Gemini 整合至 Gmail 服務時,也特別強調用戶資料保護,確保 AI 運用在實用性與使用者安全之間取得平衡。

Google 旗下的 AI 模型 Gemini 正積極整合多項安全防護機制,除了新增心理健康支援功能,以應對潛在的自殺或自殘危機外,也在其與 Gmail 服務結合時,特別強調用戶資料的隱私與安全性,展現其在人工智慧發展中,平衡實用性與使用者安全的努力。

根據《SiliconValley.com》報導,Google 計劃為 Gemini 聊天機器人導入全新的心理健康支援功能。當偵測到對話內容可能涉及自殺或自殘等潛在危機時,Gemini 將會引導用戶前往相關支援熱線尋求協助,並提供「幫助隨時可用」的模組,以期降低自傷風險。此舉是為了回應多起針對 AI 開發商的訴訟,這些訴訟指控 AI 工具導致使用者產生妄想,甚至引發謀殺或自殺事件。美國國會也曾針對聊天機器人對青少年可能造成的威脅展開調查。

此前,今年 3 月,佛羅里達州(Florida)一名 36 歲男子的家屬,對 Google 提起訴訟,聲稱該男子因使用 Gemini,經歷了「四天內陷入暴力任務,並被誘導自殺」的過程。Google 當時表示,該聊天機器人曾多次建議該男子撥打危機熱線,並承諾將改善工具的安全防護。Google 在本週二的一篇部落格文章中指出,已訓練 Gemini「不認同或強化錯誤的信念,而是溫和地區分主觀經驗與客觀事實」。過去,Google 在面臨外界檢視後,也曾對其搜尋引擎和 YouTube 進行類似調整,加入來自健康機構和專業人士的資訊。為進一步強化全球危機支援服務,Google 在未來三年內將捐贈 3,000 萬美元。

在強化心理健康的同時,Google 也致力於保障使用者數據隱私,尤其是在 Gemini 整合至 Gmail 服務時。據《Neowin》報導,Google 正將 Gemini 導入 Gmail,提供包括 AI 總覽、郵件撰寫輔助、回覆建議、校對、收件匣優先排序和摘要等功能。Google 強調,其基礎 AI 模型(包括 Gemini)並未運用 Gmail 用戶的個人電子郵件進行訓練。Gmail 產品副總裁 Blake Barnes 解釋,Gemini 在 Gmail 中執行任務時,會進入一個「私人房間」存取數據,任務完成後便立即失去存取權,資料隨即消失,以防止數據外洩。Google 透過此舉突顯其 Gmail 資料的安全性與隱私保護,希望能與曾發生數據洩漏事件的競爭對手做出區隔,例如微軟(Microsoft)的 Copilot 曾不慎將機密郵件上傳進行摘要。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源